Attore versatile, cresciuto in una famiglia inserita nel mondo del cinema (il padre Stephen Gyllenhaal, la madre Naomi Foner e la sorella maggiore Maggie Gyllenhaal), ha interpretato una grande quantità di ruoli ottenendo il plauso dalla critica e premi prestigiosi tra cui una candidatura al Premio Oscar e una al Golden Globe, vincendo il BAFTA al miglior attore non protagonista per la sua interpretazione nel film I segreti di Brokeback Mountain. Ha inoltre recitato da protagonista in vari noti film come Donnie Darko, Zodiac, Prince of Persia - Le sabbie del tempo, Amore & altri rimedi, che gli ha valso la sua prima candidatura ai Golden Globe, Source Code, Prisoners, Everest, Lo sciacallo - Nightcrawler, per il quale ha ricevuto la seconda candidatura ai Golden Globe, un BAFTA e uno Screen Actors Guild Award come "Miglior attore protagonista".